Tarō Kōno dilahirkan pada 10 Januari 1963, di Hiratsuka, Kanagawa, anak sulung dari tiga anak kepada Yōhei Kōno, bekas Presiden Parti Demokratik Liberal dan Speaker Dewan Perwakilan. Beliau dilahirkan dalam keluarga ahli politik: ayahnya, datuknya Ichirō Kōno, dan bapa saudaranya Kenzō Kōno (Speaker Dewan Kaunselor antara 1971 dan 1977), semuanya aktif dalam politik Jepun.

Kōno bersekolah di Sekolah Rebdah Hanamizu, Sekolah Menengah Keio, dan kemudian Sekolah Tinggi Keio.[1] Pada 1981, beliau memasuki Universiti Keiō untuk belajar ilmu ekonomi tetapi berhenti sekolah untuk belajar di Amerika Syarikat.

Pada 1982, beliau pergi ke Amerika Syarikat, di mana beliau memasuki ke Akademi Suffield dan Universiti Georgetown, dan belajar politik perbandingan. Pada 1983, beliau bekerja untuk Senator Alan Cranston dalam kempennya untuk pencalonan Presiden Parti Demokrat. Beliau juga bekerja untuk Ahli Perwakilan Richard Shelby dari Alabama (ketika itu seorang ahli Demokrat) selama dua tahun.[1] Beliau juga menghabiskan waktu di Sekolah Ekonomi Warsaw, Poland, di mana beliau menghabiskan satu malam di dalam penjara setelah mengunjungi rumah pemimpin Solidarność, Lech Wałęsa.

Kōno lulus dari Universiti Georgetown pada 1985 dengan Sarjana Muda Sains dalam Perkhidmatan Asing dan pada tahun berikutnya beliau menyertai Fuji Xerox. Beliau pindah ke Fuji Xerox Asia Pacific di Singapura pada 1991. Pada 1993, beliau menyertai Nippon Tanshi (日本 端子), pembekal komponen elektrik untuk Toyota, General Motors, Matsushita, dan syarikat-syarikat lain.